با نحوه عملکرد موتور های جستجوگر اینترنتی آشنا شوید

با نحوه عملکرد موتور های جستجوگر اینترنتی آشنا شوید

موتورهای جستجو به دو دسته کلی تقسیم می شوند. موتورهای جستجوی پیمایشی و فهرستهای تکمیل دستی . هر کدام از آنها برای تکمیل فهرست خود از روشهای متفاوتی استفاده می کنند که هر یک را بطور جداگانه در سایت سرزمین دانلود مورد بررسی قرار می دهیم .

● موتورهای جستجوی پیمایشی یا  Crawler Based Search Engines:

موتورهای جستجوی پیمایشی مانند Google لیست خود را بصورت خودکار تشکیل می دهند. آنها وب را پیمایش کرده و سپس کاربران آنچه را که می خواهند از میانشان جستجو می کنند. اگر شما در صفحه وب خود تغییراتی را اعمال نمایید، موتورهای جستجوی پیمایشی آنها را به خودی خود می یابند و سپس این تغییرات لیست خواهند شد. عنوان، متن و دیگر عناصر صفحه، همگی شامل این لیست خواهند بود.

● فهرستهای تکمیل دستی یا Human Powered Directories:

یک فهرست تکمیل دستی مانند یک Open Directory مثل Dmoz وابسته به کاربرانی است که آنرا تکمیل می کنند. شما صفحه مورد نظر را به همراه توضیحی مختصر در فهرست ثبت می کنید یا این کار توسط ویراستارهایی که برای آن فهرست در نظر گرفته شده انجام می شود.عمل جستجو در این حالت تنها بر روی توضیحات ثبت شده صورت می گیرد و در صورت تغییر روی صفحه وب، روی فهرست تغییری بوجود نخواهد آورد. چیزهایی که برای بهبود یک فهرست بندی در یک موتور جستجو مفید هستند، تاثیری بر بهبود فهرست بندی یک دایرکتوری ندارند. تنها استثناء این است که یک سایت خوب با پایگاه داده ای با محتوای خوب شانس بیشتری به نسبت یک سایت با پایگاه داده ضعیف دارد.

● موتورهای جستجوی ترکیبی با نتایج مختلط:

به موتورهایی اطلاق می شود که هر دو حالت را در کنار هم نمایش می دهند. غالبا، یک موتور جستوی ترکیبی در صورت نمایش نتیجه جستجو از هر یک از دسته های فوق، نتایج حاصل از دسته دیگر را هم مورد توجه قرار می دهد. مثلا موتور جستجوی MSN بیشتر نتایج حاصل از فهرستهای تکمیل دستی را نشان می دهد اما در کنار آن نیم نگاهی هم به نتایج حاصل از جستجوی پیمایشی دارد.

● بررسی یک موتور جستجوی پیمایشی:

موتورهای جستجوی پیمایشی شامل سه عنصر اصلی هستند. اولی در اصطلاح عنکبوت (Spider) است که پیمایشگر (Crawler) هم نامیده می شود. پیمایشگر همینکه به یک صفحه می رسد، آنرا می خواند و سپس لینکهای آن به صفحات دیگر را دنبال می نماید. این چیزیست که برای یک سایت پیمایش شده (Crawled) اتفاق افتاده است. پیمایشگر با یک روال منظم، مثلا یک یا دو بار در ماه به سایت مراجعه می کند تا تغییرات موجود در آنرا بیابد. هر چیزی که پیمایشگر بیابد به عنصر دوم یک موتور جستجو یعنی فهرست انتقال پیدا می کند. فهرست اغلب به کاتالوگی بزرگ اطلاق می شود که شامل لیستی از آنچه است که پیمایشگر یافته است. مانند کتاب عظیمی که فهرستی را از آنچه که پیمایشگرها از صفحات وب یافته اند، شامل شده است. هرگاه سایتی دچار تغییر شود، این فهرست نیز به روز خواهد شد.

از زمانی که تغییری در صفحه ای از سایت ایجاد شده تا هنگامیکه آن تغییر در فهرست موتور جستجو ثبت شود مدت زمانی طول خواهد کشید. پس ممکن است که یک سایت پیمایش شده باشد اما فهرست شده نباشد. تا زمانیکه این فهرست بندی برای آن تغییر ثبت نشده باشد، نمی توان انتظار داشت که در نتایج جستجو آن تغییر را ببینیم. نرم افزار موتور جستجو، سومین عنصر یک موتور جستجو است و به برنامه ای اطلاق می شود که بصورت هوشمندانه ای داده های موجود در فهرست را دسته بندی کرده و آنها را بر اساس اهمیت طبقه بندی می کند تا نتیجه جستجو با کلمه های درخواست شده هر چه بیشتر منطبق و مربوط باشد.

● چگونه موتورهای جستجو صفحات وب را رتبه بندی می کنند؟

وقتی شما از موتورهای جستجوی پیمایشی چیزی را برای جستجو درخواست می نمایید، تقریبا بلافاصله این جستجو از میان میلیونها صفحه صورت گرفته و مرتب می شود بطوریکه مربوط ترین آنها نسبت به موضوع مورد درخواست شما رتبه بالاتری را احراز نماید.البته باید در نظر داشته باشید که موتورهای جستجو همواره نتایج درستی را به شما ارائه نخواهند داد و مسلما صفحات نامربوطی را هم در نتیجه جستجو دریافت می کنید و گاهی اوقات مجبور هستید که جستجوی دقیقتری را برای آنچه که می خواهید انجام دهید اما موتورهای جستجو کار حیرت انگیز دیگری نیز انجام می دهند.

فرض کنید که شما به یک کتابدار مراجعه می کنید و از وی درباره «سفر» کتابی می خواهید. او برای اینکه جواب درستی به شما بدهد و کتاب مفیدی را به شما ارائه نماید با پرسیدن سوؤالاتی از شما و با استفاده از تجارب خود کتاب مورد نظرتان را به شما تحویل خواهد داد. موتورهای جستجو همچنین توانایی ندارند اما به نوعی آنها را شبیه سازی می کنند.پس موتورهای جستجوی پیمایشی چگونه به جواب مورد نظرتان از میان میلیونها صفحه وب می رسند؟ آنها یک مجموعه از قوانین را دارند که الگوریتم نامیده می شود. الگوریتمهای مورد نظر برای هر موتور جستجویی خاص و تقریبا سری هستند اما به هر حال از قوانین زیر پیروی می کنند:

● مکان و تکرار:

یکی از قوانین اصلی در الگوریتمهای رتبه بندی موقعیت و تعداد تکرار کلماتی است که در صفحه مورد استفاده قرار گرفته اند که بطور خلاصه روش مکان تکرار (Location/Frequency Methode) نامیده میشود.

کتابدار مذکور را به خاطر می آورِد؟ لازم است که او کتابهای در رابطه با کلمه «سفر» را طبق درخواست شما بیابد. او در وحله اول احساس می کند که شما به دنبال کتابهایی هستید که در نامشان کلمه «سفر» را شامل شوند. موتورهای جستجو هم دقیقا همان کار را انجام می دهند. آنها هم صفحاتی را برایتان لیست میکنند که در برچسب Title موجود در کد HTML حاوی کلمه «سفر» باشند.موتورهای جستجو همچنین به دنبال کلمه مورد نظر در بالای صفحات و یا در ابتدای پاراگرافها هستند. آنها فرض می کنند که صفحاتی که حاوی آن کلمه در بالای خود و یا در ابتدای پاراگرافها و عناوین باشند به نتیجه مورد نظر شما مربوط تر هستند. تکرار یا Frequesncy عامل بزرگ و مهم دیگری است که موتورهای جستجو از طریق آن صفحات مربوط را شناسایی می نمایند. موتورهای جستجو صفحات را تجزیه کرده و با توجه به تکرار کلمه ای در صفحه متوجه می شوند که آن کلمه نسبت به دیگر کلمات اهمیت بیشتری در آن صفحه دارد و آن صفحه را در درجه بالاتری نسبت به صفحات دیگر قرار می دهند.

● دستور آشپزی:

خب آشپزی چه ربطی به موتورهای جستجو دارد؟ رابطه در اینجاست. همانطور که آشپزهای حرفه ای دستورات آشپزی خود را در لفافه نگه می دارند و مقدار و چگونگی ادویه های افزودنی به غذاهای خود را افشا نمی کنند، چگونگی کارکرد دقیق موتورهای جستجو درباره روشهایی از قبیل مکان تکرار فاش نمی شود و هر موتور جستجویی روش خود را دنبال می کند. به همین دلیل است که وقتی شما کلمات واحدی را در موتورهای متفاوت جستجو می کنید، به نتایج متفاوتی می رسید.برخی موتورهای جستجو نسبت به برخی دیگر صفحات بیشتری را فهرست کرده اند. نتیجه این خواهد شد که هیچ موتور جستجویی نتیجه جستجوی مشترکی با موتور دیگر نخواهد داشت و شما نتایج متفاوتی را از آنها دریافت می کنید. موتورهای جستجو همچنین ممکن است که برخی از صفحات را از فهرست خود حذف کنند البته به شرطی که آن صفحات با Spam شدن سعی در گول زدن موتورهای جستجوگر داشته باشند. Spamming روشی است که برخی از صفحات برای احراز رتبه بالاتر در موتورهای جستجو در پیش می گیرند و آن به این صورت است که با تکرار بیش از حد کلمات بطور عمدی سعی در بر هم زدن تعادل و در نتیجه فریب موتورهای جستجو دارند. آنها سعی دارند که با افزایش عامل تکرار، در رتبه بالاتری قرار بگیرند. موتورهای جستجو راههای متنوعی برای جلوگیری از Spamming دارند و در این راه از گزارشهای کاربران خود نیز بهره می برند.

● عوامل خارج از صفحه:

موتورهای جستجوی پیمایشی اکنون تجربه فراوانی در رابطه با وب مسترهایی دارند که صفحات خود را برای کسب رتبه بهتر مرتبا بازنویسی می کنند. بعضی از وب مسترهای خبره حتی ممکن است به سمت روشهایی مانند مهندسی معکوس برای کشف چگونگی روشهای مکان تکرار بروند. به همین دلیل، تمامی موتورهای جستجوی معروف از روشهای امتیازبندی «خارج از صفحه» استفاده می کنند. عوامل خارج از صفحه عواملی هستند که از تیررس وب مسترها خارجند و آنها نمی توانند در آن دخالت کنند و مساله مهم در آن تحلیل ارتباطات و لینکهاست. بوسیله تجزیه صفحات، موتورهای جستجو لینکها را بررسی کرده و از محبوبیت آنها می فهمند که آن صفحات مهم بوده و شایسته ترفیع رتبه هستند. بعلاوه تکنیکهای پیشرفته به گونه ای است که از ایجاد لینکهای مصتوعی توسط وب مسترها برای فریب موتورهای جستجو جلوگیری می نماید. علاوه بر آن موتورهای جستجو بررسی می کنند که کدام صفحه توسط یک کاربر که کلمه ای را جستجو کرده انتخاب می شود و سپس با توجه به تعداد انتخابها، رتبه صفحه مورد نظر را تعیین کرده و مقام آنرا در نتیجه جستجو جابجا می نمایند.